DataFlow-Harness: A Grounded Code-Agent Platform for Constructing Editable LLM Data Pipelines
DataFlow-Harness：用可编辑DAG弥合NL2Pipeline鸿沟的代码智能体平台
🧭 Agent辅助的代码生成与流水线构建
Peking University · Institute for Advanced Algorithms Research Shanghai · Zhongguancun Academy
通过类型化增量突变和MCP落地，引导LLM代理构建可持久编辑的数据流水线DAG，成本与延迟大幅降低。
📌 工作参考价值（4 点）
- 流水线即DAG而非脚本：推荐系统中的特征工程、模型训练、数据回流等流水线常以一次性脚本实现，维护成本高。借鉴DataFlow-Harness，可将LLM生成的流水线固化为可编辑、可复用的DAG，便于版本控制和协作。
- MCP结构化工具暴露：Agent与平台交互时，通过MCP（Model Context Protocol）暴露算子注册、状态等，确保工具调用类型安全。电商Agent场景中，可类似将召回、排序、特征库等组件注册为MCP工具，让LLM可靠编排。
- 增量突变降低生成风险：直接生成完整脚本易出错，改为指导Agent进行类型化增量操作（添加/删除节点、连线），可提升流水线构建成功率。在复杂推荐流水线（多路召回、重排、实验配置）中，这种可控构建思路能减少调试成本。
- Skills编码隐性过程知识：对于依赖领域经验的流水线步骤（如数据分桶、采样策略），可沉淀为Skills指导Agent，减少Prompt工程负担。电商搜索推荐中如索引构建、特征拼接等流程可借鉴。